On the generation of Krylov subspace bases

Many problems in scientific computing involving a large sparse matrix A are solved by Krylov subspace methods. This includes methods for the solution of large linear systems of equations with A, for the computation of a few eigenvalues and associated eigenvectors of A, and for the approximation of nonlinear matrix functions of A. When the matrix A is non-Hermitian, the Arnoldi process commonly is used to compute an orthonormal basis of a Krylov subspace associated with A. The Arnoldi process often is implemented with the aid of the modified Gram-Schmidt method. It is well known that the latter constitutes a bottleneck in parallel computing environments, and to some extent also on sequential computers. Several approaches to circumvent orthogonalization by the modified Gram-Schmidt method have been described in the literature, including the generation of Krylov subspace bases with the aid of suitably chosen Chebyshev or Newton polynomials. We review these schemes and describe new ones. Numerical examples are presented. Key-words: Krylov subspace basis, Arnoldi process, iterative method ∗ IRISA/INRIA-Rennes, Campus de Beaulieu, 35042 Rennes cedex, France. E-mail: [email protected] † Department of Mathematical Sciences, Kent State University, Kent, OH 44242, USA. E-mail: [email protected] in ria -0 04 33 00 9, v er si on 1 17 N ov 2 00 9 Construction de bases de sous-espaces de Krylov Résumé : Beaucoup de problèmes du calcul numérique qui font intervenir une grande matrice creuse A sont résolus par des méthodes de sous-espaces de Krylov. Il en est ainsi de la résolution d’un système linéaire défini par A, du calcul de quelques valeurs propres ou vecteurs propres deA et de l’approximation de fonctions non linéaires de la matrice A. Quand la matrice A n’est pas hermitienne, une base orthonormale d’un sous-espace de Krylov deA est habituel– lement calculée par le procédé d’Arnoldi. En général, ce procédé met en œuvre une orthogonalisation grâce au procédé de Gram-Schmidt modifié. Mais il est bien connu que celui-ci constitue un goulot d’étranglement pour le calcul parallèle et même, d’une certaine façon, aussi pour le calcul séquentiel. Plusieurs approches se passant de l’algorithme de Gram-Schmidt modifié sont déjà connues, en particulier celles qui construisent des bases à partir de polynômes de Tcheby– shev ou de Newton. Nous présentons ici une analyse de ces approches et en proposons de nouvelles. Des expériences numériques concluent le rapport. Mots-clés : Bases de sous-espaces de Krylov, procédé d’Arnoldi, méthode iterative in ria -0 04 33 00 9, v er si on 1 17 N ov 2 00 9 Krylov subspaces bases 3